Vào ngày 30 tháng 9 năm 1886, Pershing phục vụ tại Sư Đoàn kỵ binh số 6 của Hoa Kỳ đóng tại Fort Bayard, thuộc Lãnh thổ New Mexico. Pershing đã tham gia vào một số chiến dịch và được tặng thưởng vì sự dũng cảm đối với các hành động chống lại Apache. Trong thời gian ở Fort Stanton, Pershing và những người bạn thân Trung úy Julius Penn và Trung úy Richard B được đặt biệt danh là "The Three Green P's", và dành thời gian giải trí của họ để săn bắn và tham dự các điệu nhảy Tây Ban Nha. Chị gái của Pershing, Grace kết hôn với Paddock vào năm 1890.

Giữa năm 1887 và 1890, Pershing phục vụ tại Sư Đoàn kỵ binh số 6 tại nhiều địa điểm khác nhau ở California, Arizona và Bắc Dakota. Ông cũng trở thành một chuyên gia trinh sát và vào năm 1891, được xếp hạng nhì về bắn khẩu súng lục và thứ năm về bắn súng trường trong số tất cả binh sĩ trong Quân đội Hoa Kỳ.

Vào ngày 9 tháng 12 năm 1890, Pershing và Sư Đoàn kỵ binh số 6 đến thành phố Sioux, Iowa, nơi Pershing đóng một vai trò trong việc trấn áp những cuộc nổi dậy cuối cùng của người da đỏ Lakota (Sioux). Mặc dù ông và đơn vị của ông không tham gia vào các vụ thảm sát, họ đã chiến đấu ba ngày khi các chiến binh Sioux tấn công toa xe cung cấp vật tư của Sư Đoàn kỵ binh số 6. Khi các chiến binh Sioux bắt đầu tấn công vào toa xe, Pershing và quân đội của ông đã cưỡi hơn sáu dặm đến vị trí của vụ tấn công. Kỵ binh bắn vào các chiến binh Sioux, khiến họ rút lui.

Vào tháng 9 năm 1891, ông được bổ nhiệm làm Giáo sư Khoa học Quân sự và Chiến thuật tại Đại học Nebraska-Lincoln, vị trí ông giữ cho đến năm 1895. Trong khi thực hiện nhiệm vụ này, Pershing đã theo học Đại học Luật năm 1893. Ông thành lập một đội thao diễn của các sinh viên đại học, Đội A. Vào tháng 3 năm 1892, đã giành được giải trong cuộc thi thao diễn đầu tiên ở Omaha, Nebraska. Vào ngày 2 tháng 10 năm 1894, cựu thành viên của Đội A đã thành lập một đội thao diễn quân sự có tên là Varsity Rifles. Nhóm này đổi tên thành nhóm Súng trường Pershing năm 1895 để vinh danh người cố vấn và người bảo trợ. Pershing duy trì mối quan hệ chặt chẽ với Pershing Rifles trong suốt quãng đời còn lại của mình.

Ngày 20 tháng 10 năm 1892, Pershing được thăng chức lên trung úy và năm 1895 nắm quyền chỉ huy Trung Đoàn Kỵ Binh số 10, một trong những trung đoàn Buffalo nguyên thủy gồm các binh sĩ người Mỹ gốc Phi dưới sự chỉ huy của các sĩ quan da trắng. Từ Fort Assinniboine ở phía bắc trung tâm Montana, ông chỉ huy Trung Đoàn Kỵ Binh số 10 về phía nam và tây nam trục xuất một số lượng lớn người da đỏ Cree đến Canada.